Khi liên minh cánh hữu RPR/UDF giành một chiến thắng với đa số sít sao tại Quốc hội trong cuộc bầu cử năm 1986, Mitterrand (PS) đã chỉ định Chirac làm Thủ tướng (dù nhiều người thân cận với Mitterrand đã đề nghị ông lựa chọn Jacques Chaban-Delmas). Thoả thuận chia sẻ quyền lực chưa từng có này, được gọi là cùng chung sống, đã khiến Chirac có vai trò lãnh đạo với các vấn đề trong nước. Tuy nhiên, mọi người nói chung cho rằng Mitterrand đã sử dụng những lĩnh vực dành riêng cho Tổng thống quốc phòng và đối ngoại để làm giảm giá trị của vị Thủ tướng.

Nội các thứ hai của Chirac

(20 tháng 3 năm 1986 – 12 tháng 5 năm 1988)

• Jacques Chirac – Thủ tướng
• Jean-Bernard Raimond – Bộ trưởng Ngoại giao
• André Giraud – Bộ trưởng Quốc phòng
• Charles Pasqua – Bộ trưởng Nội vụ
• Édouard Balladur – Bộ trưởng Kinh tế, Tài chính và Tư nhân hoá
• Alain Madelin – Bộ trưởng Công nghiệp, Du lịch, Bưu chính và Viễn thông
• Philippe Séguin – Bộ trưởng Việc làm và các Vấn đề xã hội
• Albin Chalandon – Bộ trưởng Tư pháp
• René Monory – Bộ trưởng Giáo dục Quốc gia
• François Léotard – Bộ trưởng Văn hoá và Truyền thông
• François Guillaume – Bộ trưởng Nông nghiệp
• Bernard Pons – Bộ trưởng Lãnh thổ và Khu vực Hải ngoại
• Pierre Méhaignerie – Bộ trưởng Nhà ở, Trang bị, Kế hoạch Vùng và Vận tải
• André Rossinot – Bộ trưởng Quan hệ Nghị viện
• Michel Aurillac – Bộ trưởng Hợp tác

Nội các của Chirac đã bán rất nhiều công ty nhà nước, sửa chữa lại chương trình tự do hoá đã được đưa ra từ thời chính phủ Xã hội của Laurent Fabius (1984–1986, đặc biệt với chương trình tư nhân hoá ngành nghe nhìn của Fabius, dẫn tới việc thành lập Canal +), và xoá bỏ thuế đoàn kết trên tài sản (ISF), một loại thuế biểu tượng trên những nguồn tài nguyên rất lớn được chính phủ Mitterrand quyết định. 's government. Ở nơi khác, kế hoạch cải cách trường đại học (kế hoạch Devaquet) đã gây ra một cuộc khủng hoảng năm 1986 khi một thanh niên tên là Malik Oussekine (1964–1986) bị cảnh sát giết hại, dẫn tới những cuộc biểu tình lớn và đề xuất này đã phải rút lại. Trong những cuộc khủng hoảng sinh viên khác đã có dư luận nói rằng sự kiện này ảnh hưởng mạnh tới Jacques Chirac, trong tương lai sẽ trở nên cẩn thận với tình trạng bạo lực cảnh sát trong những cuộc tuần hành như vậy (ví dụ có thể giải thích một phần quyết định "ban hành nhưng không áp dụng" Hợp đồng Lao động Đầu tiên (CPE) sau những cuộc tuần hành lớn của sinh viên chống lại nó).

Một trong những hành động đầu tiên của ông liên quan tới các chính sách đối ngoại là gọi lại Jacques Foccart (1913–1997), người từng là cố vấn hàng đầu của de Gaulle và người kế nhiệm ông về các vấn đề châu Phi, được nhà báo Stephen Smith gọi là "người cha của mọi "mạng lưới" trên lực địa, khi ấy (năm 1986) đã 72 tuổi."[16] Jacques Foccart, người đồng thành lập Service d'Action Civique của de Gaulle (SAC, bị Mitterrand giải tán năm 1982) cùng với Charles Pasqua, và từng là một nhân vật quan trọng của hệ thống "Françafrique", một lần nữa được gọi về Điện Elysée khi Chirac giành thắng lợi trong cuộc bầu cử tổng thống năm 1995. Hơn nữa, đương đầu với các phong trào chống chủ nghĩa đế quốc tại New Caledonia, Thủ tướng Chirac đã ra lệnh can thiệp quân sự chống lại những người ly khai tại hang Ouvéa, dẫn tới nhiều cái chết bi thảm. Ông được cho là đã từ chối bất kỳ một liên minh nào với Mặt trận Quốc gia của Jean-Marie Le Pen.[17]

Cuộc bầu cử tổng thống năm 1988 và sau đó

Chirac chạy đua chống lại Mitterrand khi ông này tìm kiếm nhiệm kỳ thứ hai trong cuộc bầu cử năm 1988. Ông giành được 20% phiếu bầu ở vòng một, nhưng thua ở vòng hai với chỉ 46%. Ông từ chức khỏi nội các và cánh hữu thua trong cuộc bầu cử lập pháp tiếp sau.

Lần đầu tiên, vai trò lãnh đạo đảng Tập hợp vì nền Cộng hoà của ông bị thách thức. Charles Pasqua và Philippe Séguin chỉ trích việc ông từ bỏ các học thuyết của de Gaulle. Về phía hữu, một thế hệ chính trị gia mới, "những người cải cách", buộc tội Chirac và Giscard phải chịu trách nhiệm về những thất bại bầu cử. Năm 1992, tin rằng một người không thể trở thành Tổng thống khi ủng hộ các chính sách chống châu Âu, ông kêu gọi "đồng ý" trong cuộc trưng cầu dân ý về Hiệp ước Maastricht, chống lại ý kiến của Pasqua, Séguin và đa số cử tri của đảng Tập hợp vì nền Cộng hoà, những người lựa chọn "không".

Khi ông vẫn còn là thị trưởng Paris (từ năm 1977), Chirac đã tới Abidjan (Côte d'Ivoire) nơi ông ủng hộ Tổng thống Houphouët-Boigny (1960–1993), dù ông này bị dân chúng địa phương gọi là "thằng ăn trộm". Sau đó Chirac tuyên bố rằng chủ nghĩa đa đảng là một "kiểu xa xỉ."[16]

Tuy nhiên, cánh hữu đã giành thắng lợi trong cuộc bầu cử lập pháp năm 1993. Chirac thông báo rằng ông không muốn quay trở lại làm Thủ tướng, đề nghị chỉ định Edouard Balladur, người từng hứa sẽ không ra tranh chức tổng thống chống lại Chirac năm 1995. Tuy nhiên, tận dụng lợi thế từ những kết quả tốt trong các cuộc thăm dò ý kiến dân chúng, Balladur đã quyết định ra tranh cử, với sự ủng hộ của đa số chính trị gia cánh hữu. Thời điểm ấy Chirac đã chia rẽ với một số bạn bè và đồng minh, gồm cả Charles Pasqua, Nicolas Sarkozy, vân vân, những người ủng hộ Balladur. MỘt nhóm nhỏ "người trung thành" ở lại với ông, gồm cả Alain Juppé và Jean-Louis Debré. Khi Nicolas Sarkozy trở thành Tổng thống năm 2007, Juppé là một trong số ít "đồng minh của Chirac" phục vụ trong chính phủ của François Fillon.